智能晚报｜OpenAI首席科学家Ilya Sutskever可能要离职；欧盟AI法案将出台；微软与OpenAI可能涉嫌垄断...

「每周一三五更新」

撰文：王杰夫、杨秋秋

编辑：王杰夫

Key Points

欧盟人工智能法案即将出台；

微软与OpenAI的合作可能受到反垄断调查；

苹果iPhone和Apple Watch产品设计主管将离职；

OpenAI首席科学家Ilya Sutskever可能要离职；

TikTok将向GoTo旗下电子商务部门Tokopedia投资15亿美元。

，

耗时两年多，欧盟终于就人工智能监管达成政治协议，法案即将出台

经过三天马拉松式的「三方会谈」后，在上周五晚上，欧洲议会、理事会与欧盟委员会的代表终于就人工智能监管达成政治协议，该协议由议会和理事会正式通过后便会成为欧盟法律。

该政治协议达成意味着2021年4月提出的《人工智能法案》（AI Act）即将落地。欧盟主席冯德莱恩在X平台上称其为「全球第一」。

哪些应用场景将被禁止？

虽然协议的全部细节还在编制中，需要几周时间正式公布，但刚刚发布的新闻稿已经确定人工智能在以下场景将被禁用：

• 使用敏感特征（例如政治、宗教、哲学信仰、性取向、种族）的生物特征分类系统；

• 从互联网或闭路电视录像中无目标地抓取面部图像以创建面部识别数据库；

• 工作场所和教育机构中做情绪识别；

• 基于社会行为或个人特征的社会评分系统；

• 操纵人类行为以规避其自由意志的人工智能系统；

• 利用人们的弱点（涉及年龄、残疾、社会或经济状况）的人工智能。

对于此前争议的焦点，即执法部门在公共场所使用远程生物识别技术，并没有被完全禁止。但其使用受到严格的场景限制：

• 有针对性地搜查受害者（诸如遭到绑架、贩运、性剥削）；

• 预防具体且当前的恐怖主义威胁；

• 或者定位或识别涉嫌犯下条例中提及的特定罪行的人（如恐怖主义、贩运、性剥削、谋杀、绑架、强奸、持械抢劫、参与犯罪组织、环境犯罪）。

对高风险人工智能系统的限制

上周一「三方会谈」开始前，新皮层曾经报道过，当时各国对基础模型的监管的强弱程度存在分歧。大部分国家要求对规模不同大小、能力强弱不同的模型做区分监管，但法德意三国当时对此表示反对。

从最终新闻稿的结果来看，大部分国家的诉求得到满足。对于被归类为高风险的人工智能系统（由于其对健康、安全、基本权利、环境、民主和法治具有重大潜在危害），欧盟商定了明确的义务。

欧洲议会议员成功地在草案中纳入了强制性基本权利影响评估等要求。影响选举结果和选民行为的人工智能系统也被归类为高风险。公民将有权对人工智能系统提出投诉，并有权获得有关影响其权利的高风险人工智能系统决策的解释。

对于通用人工智能（GPAI）系统及其所基于的 GPAI 模型必须遵守透明度要求，包括提供技术文件、遵守欧盟版权法，以及澄清训练内容来源。不仅如此，对于这些GPAI 模型，所有者需要评估其风险，做对抗性测试，并且严重性事件要上报。

惩罚与鼓励措施

如果不遵守相关规定，根据违规情况及公司规模，将处以罚款，最低罚款额为750万欧元或1.5%的营业额，最高则达3500万欧元或全球营业额的7%。

同时，欧盟议会议员也希望中小企业也能够摆脱科技巨头去开发人工智能。协议将促进各个国家建立监管沙箱和测试机制，帮助这些公司创建和训练人工智能。

《人工智能法案》落地进程

• 2023年6月，欧洲议会投票通过《人工智能法案》草案。随后该草案进入成员国、欧洲议会、欧盟委员会的「三方谈判」阶段，预计在今年年底正式通过。

        今年6月份，欧洲议会投票通过了《人工智能法案》草案

• 10月底，「三方谈判」就分级监管模型达成了共识，但不久后包括法德意在内的一些成员国更改立场，这是导致目前进展困难的直接原因。

• 12月9日，欧盟立法者在第五次「三方谈判」后成功达成政治协议，《人工智能法案》即将落地。

• 2026年，该法案将对相关企业产生实际影响。

新闻稿：

https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

微软与OpenAI的合作受到FTC与CMA的反垄断调查

据报道，美国联邦贸易委员会FTC和英国竞争与市场管理局CMA正在就微软公司和OpenAI之间的投资关系展开初步调查，以确定两家之间的合作是否对市场的公平竞争构成威胁。

FTC和CMA尚未开始正式调查

FTC：据消息，FTC对于微软与OpenAI的反垄断调查尚未正式开始，只进行了初步分析。OpenAI是一个非盈利性质的组织，微软对于OpenAI的投资也并不构成对该公司的控制权。因此，根据美国合并法，无论数额多少，微软都并不需要向FTC上报这笔投资。FTC的官员目前正在评估这个情况，并将在之后做出下一步行动。此前早些时候，FTC已对OpenAI就ChatGPT是否产生用户声誉和数据风险展开调查。

CMA：据外媒报道，CMA正在就微软与OpenAI的合作是否影响英国AI服务市场的竞争征集相关意见。CMA指出，此举是由于担心两者之间的关系过于密切，构成英国《企业法》中的「相关合并情况」，即两家公司的紧密关系有效地影响了市场竞争。目前，CMA在启动第一阶段调查之前开放了一份「征求意见邀请书」，于2024年12月8日至2025年1月3日开放收集意见。

欧盟也在关注：当被要求对CMA的举动发表评论时，欧盟委员会发言人表示，欧盟监管机构一直在「非常密切地关注OpenAI的控制情况」。

起因是Sam Altman罢免事件

11月，OpenAI的CEO Sam Altman被董事会罢免，在不到一周后又重新受聘。在Sam Altman被罢免后，微软首席执行官Satya Nadella积极帮助推进OpenAI的内部谈判并倡导Altman重返公司——一度提出聘请Altman本人以及OpenAI想要离开的其他员工。

而在Altman回归之后，微软在OpenAI的董事会中获得了一个「无投票权观察员」席位，即微软可以参加OpenAI的董事会会议并获取OpenAI机密信息，但在选举或选择董事等事项上没有投票权。这也意味着，微软在一定程度上在OpenAI的后续经营中拥有更大的话语权。

今年以来，微软已将OpenAI的人工智能技术融入其许多产品中，如Office办公软件、Bing搜索引擎和GitHub的编程服务。

微软和OpenAI发表回应

在FTC与CMA宣布开展调查之后，微软和OpenAI分别做出了回应。微软发言人在一份声明中表示，虽然两者之间的合作协议细节依然保密，但必须指出的是，微软并不拥有OpenAI任何股份，只是有资格分享利润分配。OpenAI的发言人表示，「微软的无投票权董事会观察员席位并不意味着微软具有对OpenAI运营的管理职权或控制权。」

参考链接

https://www.bloomberg.com/news/articles/2023-12-08/ftc-makes-preliminary-antitrust-queries-into-microsoft-openai

https://techcrunch.com/2023/12/08/uks-cma-is-looking-at-whether-microsoft-and-openai-tie-up-is-a-relevant-merger/

苹果iPhone和Apple Watch产品设计主管将离职

12月9日，据报道，负责iPhone和智能手表产品设计的产品设计副总裁Tang Tan将于明年2月离职，该部门正在调整人事职责以应对过渡时期。

Tan的离开是「一个沉重打击」

据匿名人士透露，Tan的离职对于苹果是一个打击，因为「他对苹果最重要的产品做出了关键决定」。他表示，Tan在AirPods和Apple Watch的工作帮助这些设备转变为苹果的「主要增长动力」。目前，Tan向Apple硬件工程高级副总裁John Ternus汇报工作，负责iPhone和Apple Watch的配件设计。Tan领导的团队与其工业设计和运营团队密切合作，控制产品功能，包括设备的外观及其设计方式。此外，他还参与监督苹果的负责AirPods大部分开发工作的声学团队，该团队由Matthew Costello领导。

目前，苹果正在重新调整Tan的职责以处理交接事宜，Tan领导的团队将担任更多职务。Tan的高级副手兼iPhone产品设计主管Richard Dinh的职责得到扩大，将直接向Ternus汇报工作。Mac团队的硬件工程主管Kate Bergeron将接管Apple Watch的设计工作。

苹果明年还将面临更多领导层人事变动

Tan的离职是Ternus团队最近一年内第三次管理层离职。负责硬件产品管理的Laura Legros于2022年年底退休。而随后，硬件工程副总裁Yannick Bertolus在Legros退休后接管了硬件产品管理工作，也在今年10月退休。

Ternus将前硬件质量主管Dan West提拔为非产品职位，向Ternus直接汇报工作。报道还称，其他Mac产品设计和iPhone硬件高管最近也得到了晋升，以应对来年更多的领导层人事变动。

此外，本周早些时候，报道称从事iPhone多点触控屏幕、Touch ID和Face ID等关键技术工作的副总裁Steve Hotelling即将从苹果公司退休。

参考链接

https://www.bloomberg.com/news/articles/2023-12-08/apple-s-iphone-and-watch-product-design-chief-to-leave-in-shake-up

风波后的OpenAI最近发生了啥

距11月17日OpenAI罢免CEO Sam Altman已经过去三周时间。虽然Altman罢免后不到一周就成功重回公司，并且多人在X平台上晒出大合照以示团结，但一些迹象表明OpenAI还没能完全回归正轨。

以下是最近OpenAI发生的事情：

首席科学家Ilya Sutskever可能要离职？

在罢免Altman的过程中，曾是董事会一员Sutskever投下了关键的一票。作为领导GPT开发的灵魂人物，Sutskever对于Altman激进的技术开发与商业化行为并不认同。虽然事后Sutskever很快对当时投出的那一票表示懊悔，但双方的裂痕并没有弥合。

有员工爆料称，Sutskever已经一周多没有来到OpenAI办公室上班，并且聘请了Willkie Farr & Gallagher律所的Alex Weingarten律师，但并没有透露请律师的理由。同时有消息称，Sutskever之前的工作正逐渐被其他人接替，看起来这位OpenAI的创建者和首席科学家的去留依然存在很大不确定。

对于Altman激进的商业化行为持反对意见的还有另一位前董事会成员Helen Toner，她也被认为是主导罢免的关键人物。上周她曾接受《华尔街日报》采访对事件做了回应，认为她才是坚持OpenAI创立原则的人。

OpenAI员工并没有那么齐心？

在Altman离开的过程中，OpenAI员工曾经签署过一封联名信，770人的团队中有743人签了名。此举被广泛视作OpenAI团结，Altman应该回归的重要证据。

但最近《华尔街日报》称，在Altman被解雇前，董事会曾经收到过多位员工投诉，指控其在心理上「虐待」员工，挑拨员工关系，制造公司混乱。这也是导致Altman最终被罢免的原因之一。

而且还有员工对Business Insider表示，当时签名其实是受迫的，一些老员工深夜向他们打电话，敦促他们签字。他们认为，这些老员工拥有不少股权，所以并不想离开OpenAI。而不久前Altman以860亿美元的估值向投资人提出了要约收购计划，允许员工将股票套现，原计划定于12月初结束。Altman的离职可能导致这些老员工利益受损。

ChatGPT收到GPT-4变懒的反馈，将着手处理

ChatGPT在X平台（原Twitter）的官方账号在上周五称，他们收到了关于GPT-4最近变懒的反馈，并且开始处理。官方透露称，自从11月11号起，他们就没再对模型升级过，所以「变懒」并非有意为之；但是，这并不是暗示模型本身出现了变化，而是随着不断使用，一部分提示词的生成结果可能有退化。

对此，有X网友评论称，他找到了一些提示词技巧可能有帮助，例如在提示词中加入「先深呼吸，再逐步分析问题」和「如果你回答得好，我会给你小费」等，测试证明似乎真的有点用。

OpenAI可能正式进入印度

有报道称，OpenAI正在与前X平台印度负责人Rishi Jaitly合作，希望他担任高级顾问，以促进印度政府就人工智能政策做谈判。OpenAI 还希望在印度建立一支本地团队。Jaitly在Altman今年6月访问印度时就与他建立了联系，并且之后一直就印度政策向OpenAI提供建议，不过一直没有正式职位。

Jaitly在2007年至2009年间担任Google印度公私合作部门负责人，2012年跳槽到当时的Twitter，成为该公司在印度的第一位员工。2016年年底，Jaitly离开Twitter，成为印度媒体巨头时代集团的全球投资部门Times Bridge的联合创始人兼首席执行官。Times Bridge的投资组合包括Uber、Airbnb、Coursera、Mubi、Smule和Wattpad。Jaitly于2022年离开公司。

参考链接

https://www.businessinsider.com/openai-cofounder-ilya-sutskever-invisible-future-uncertain-2023-12

https://twitter.com/ChatGPTapp/status/1732979491071549792

TikTok将向GoTo旗下电子商务部门Tokopedia投资15亿美元

据媒体报道，TikTok将斥资15亿美元和印尼科技巨头公司GoTo建立一家新合资公司。该合资公司将合并GoTo的电子商务部门Tokopedia与TikTok电子商务业务的本地部门TikTok Shop Indonesia。声明显示，15亿美元将逐步投入到合并后的业务中，其中8.4亿用于收购新合资公司的股份。交易之后，TikTok将持有新实体75.01%的控股权，GoTo占24.99%，并将保持不变。整体交易预计将于2024年第一季度完成。

这笔交易是在TikTok Shop Indonesia受到监管机构审查之后进行的。今年9月，印尼政府宣布为保护当地规模较小的商家和用户，禁止用户在社交媒体平台上直接支付在线购物。因此，TikTok被迫于10月4日暂停其电子商务服务。

参考链接

https://techcrunch.com/2023/12/11/tiktok-to-invest-1-5b-in-gotos-indonesia-e-commerce-business/

-END-

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。

和每一位关心技术、关注人类命运的读者一样，我们希望在这个充满不确定性的时代，更好地理解快速变化的科技世界，也更好地理解生而为「高级智能」的我们自己。

在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与「智能」相关的议题。请注意，我们说的智能，不只是 AI。

以下是最近发生的其他智能资讯

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

喜欢就关注我们吧，记得「设为星标」